Hội được thành lập năm 1888 dưới tên Hội Toán học New York, sản phẩm trí óc của Thomas Fiske, người có ấn tượng sâu sắc về Hội Toán học London nhân một chuyến viếng thăm nước Anh. John Howard Van Amringe là chủ tịch và Thomas Fiske là thư ký đầu tiên của hội. Hội sớm quyết định xuất bản một tờ báo, nhưng bị một vài phản kháng do cạnh tranh với tờ American Journal of Mathematics, nên thay vào đó hội xuất bản tập san Bulletin of the New York Mathematical Society do Fiske làm trưởng ban biên tập.

Tháng 7 năm 1894, hội tổ chức lại, đổi tên như trên và trở thành một hội toàn quốc. Năm 1951, hội dời trụ sở chính từ thành phố New York sang thành phố Providence, Rhode Island và mở thêm một văn phòng ở Ann Arbor, Michigan năm 1984 và một ở Washington, D.C. năm 1992.

Tính phổ biến của tập san của hội đã dẫn đến việc xuất bản các tờ Transactions of the American Mathematical Society và Proceedings of the American Mathematical Society, trên thực tế cũng là các báo. Chưa tới năm 1988 hội xuất bản tiếp tờ Journal of the American Mathematical Society với ý định sẽ là tờ báo hàng đầu của Hội.

Hội nỗ lực cải thiện chất lượng việc giảng dạy toán học ở Hoa Kỳ. Ví dụ, năm 1954 hội đã yêu cầu thiết lập một cấp học mới: cấp bằng "Doctor of Arts in Mathematics", tương tự như bằng Ph.D. nhưng không có luận đề nghiên cứu.[1]